Trọng tâm trong chính sách đối ngoại của Ioannes II ở phương Tây củng cố mối liên minh với các hoàng đế Đức (Đế quốc La Mã Thần thánh). Điều này là cần thiết để hạn chế hiểm họa ngoại xâm từ người Norman ở miền Nam nước Ý vào lãnh thổ Đông La Mã vùng Balkan. Mối đe dọa này đã trở nên đặc biệt nghiêm trọng sau khi Roger II xứ Sicilia bành trướng bá quyền ở miền nam nước Ý và tự xưng vương. Hoàng đế Lothair III nhận được sự hậu thuẫn về khoản tiền trợ cấp tài chính lớn của Đông La Mã dành cho cuộc xâm chiếm lãnh thổ Norman vào năm 1136, tiến xuống phía nam tới tận thành Bari. Giáo hoàng Innocent II, với các vũng lãnh thổ thuộc quyền Giáo hội bị sự đe dọa xâm lấn của Roger II, người ủng hộ lập Giáo hoàng đối lập Anacletus II, từng một thời cùng phe với Lothair và Ioannes II. Tuy vậy, liên minh này đã chứng tỏ khó có khả năng chống lại Roger, kẻ đã dùng tới vũ lực để đổi lấy sự công nhận từ Giáo hoàng vào năm 1139 (Hòa ước Mignano).[16] Người kế vị của Lothair là Conrad III vào năm 1140 đã ngỏ ý gả một cô dâu thuộc hoàng gia Đức cho người con trai út của Ioannes là Manouel. Bertha xứ Sulzbach, em vợ của Conrad, được chọn và khởi hành đến Byzantium.[17] Cùng lúc đó Roger II đã cử người tới chỗ Ioannes II để cầu hôn cho đứa con trai của mình nhưng không thành công.[18]

Thiên hướng của Ioannes đang gây nên biết bao phiền phức cho bên nhà vợ, những người nắm quyền cai trị Hungary, mới là vấn đề chủ chốt. Thái độ chào đón dành cho các bên tranh giành ngôi vua Hungary bị trục xuất đến Constantinopolis được người Đông La Mã xem như một chính sách đảm bảo lợi ích và gốc gác cho đòn bẩy về mặt chính trị. Thế nhưng, người Hungary lại coi kiểu can thiệp này chứng tỏ dấu hiệu chiến tranh. Việc họ liên minh với dân Serb đã tạo ra những hậu quả trầm trọng nhằm tiếp tục ách thống trị của Đông La Mã ở vùng Balkan phía Tây.[19]

Tại miền Đông Ioannes đã cố gắng, giống như phụ hoàng, khai thác mâu thuẫn gay gắt giữa Hồi vương Seljuq Iconium và vương triều Danishmendid đang kiểm soát một phần vùng nội địa phía đông bắc Anatolia. Năm 1134 Hồi vương Seljuq Mas'ud đã gửi viện binh tới giúp Ioannes đánh chiếm thành Kastamuni đang nằm trong tay quân Danishmend, nhưng liên minh này tỏ ra không đáng tin cậy khi quân Seljuq vội vàng từ bỏ cuộc chinh phạt, nhổ trại ngay giữa đêm hôm khuya khoắt.[20]

Cả các tiểu quốc Thập tự quân vùng Cận Đông nhìn chung đều thừa nhận chủ quyền Antiochia thuộc về Đông La Mã vẫn còn giá trị pháp lý, dù nó được nhìn nhận theo cách võ đoán chỉ khi hoàng đế Đông La Mã nằm trong vị thế thực thi chức năng quân sự thì mới có khả năng được công nhận trên thực tế. Đỉnh cao trong sách lược ngoại giao dưới thời Ioannes tại vùng Cận Đông vào năm 1137 là khi ông tiếp nhận sự thần phục của Thân vương quốc Antiochia, Bá quốc Edessa và Bá quốc Tripoli. Lòng ham muốn nắm giữ bá quyền ở một mức độ lên tất cả các tiểu quốc Thập tự quân của Đông La Mã đã được thực hiện nghiêm chỉnh, bằng chứng là sự hoảng hốt của Vương quốc Jerusalem khi Ioannes báo cho Vua Fulk biết về kế hoạch sửa soạn cho một cuộc hành hương có vũ trang đến Thánh Địa (1142).[21]